การเปลี่ยนกระบวนทัศน์

เรากำลังเปลี่ยนจาก "มุ่งเน้นประสิทธิภาพเป็นหลักไม่คำนึงถึงสิ่งอื่น" ไปสู่กรอบแนวคิด AI ที่รับผิดชอบ (RAI) ในยุคใหม่นี้ ความสำเร็จทางเทคนิคขึ้นอยู่กับความแข็งแกร่งทางจริยธรรมและการป้องกันด้านความปลอดภัยอย่างเคร่งครัด

1. การหาค่าที่เหมาะสมที่สุดแบบมีเงื่อนไขบังคับ

ในอดีต เป้าหมายคือการลดฟังก์ชันการสูญเสีย $L(\theta)$ ให้เหลือน้อยที่สุด กระบวนทัศน์ใหม่ถือว่า AI เป็นปัญหาการหาค่าที่เหมาะสมที่สุดแบบมีเงื่อนไขบังคับ: $$\max P \text{ subject to } C_1, C_2, \dots, C_n$$ โดยที่ $C$ แทนเกณฑ์ขั้นต่ำด้านความปลอดภัยและความเป็นธรรมที่ไม่สามารถต่อรองได้

2. ช่องว่างระหว่าง "ในหลอดทดลอง" กับ "ในร่างกายจริง"

โมเดลมักได้รับผลลัพธ์ที่ล้ำสมัย (SOTA) บนเกณฑ์มาตรฐานแบบคงที่ (ในหลอดทดลอง) แต่แสดงความล้มเหลวขั้นรุนแรงในสภาพแวดล้อมทางสังคมและเทคนิคในโลกจริง (ในร่างกายจริง) เนื่องมาจากปฏิสัมพันธ์ที่ไม่คาดคิด

ซ้าย: ความแม่นยำ/ความเร็วสูง แต่ความปลอดภัย/ความโปร่งใสเป็นศูนย์ ขวา: รูปหกเหลี่ยมที่สมดุลแสดงถึงความปลอดภัย ความเป็นธรรม และความสามารถในการตีความ

ตัวอย่าง: การซื้อขายความถี่สูง

โมเดลที่เน้นประสิทธิภาพเพียงอย่างเดียวจะประสบความสำเร็จหากสามารถเพิ่ม ROI ได้สูงสุด โมเดล RAI ถือว่าล้มเหลวหากได้ ROI สูงแต่ก่อให้เกิด "ตลาดล่มฉับพลัน" เนื่องจากการขาดมาตรการป้องกันเสถียรภาพของตลาด